Caviezel bắt đầu tham gia diễn xuất trong các vở kịch ở quê hương Seattle, Washington. Anh đã giành được thẻ thành viên Hiệp hội Diễn viên Màn ảnh của mình với một vai nhỏ trong bộ phim My Own Private Idaho năm 1991. Sau đó anh chuyển đến Los Angeles để theo đuổi sự nghiệp diễn xuất. Khi anh ấy quyết định chuyển đi, "mọi người nghĩ rằng tôi mất trí"— anh nói.[9] Anh được nhận học bổng để theo học diễn xuất tại Trường Nghệ thuật Juilliard ở New York vào năm 1993, nhưng anh đã từ chối để đóng vai Warren Earp trong bộ phim Wyatt Earp năm 1994.[10][11] Sau đó anh còn xuất hiện trong các tập phim của Murder, She Wrote và The Wonder Years. Sau khi xuất hiện trong G.I. Jane (1997), anh đã có một màn trình diễn đột phá trong bộ phim về Thế chiến thứ Hai, The Thin Red Line, năm 1998 do Terrence Malick đạo diễn. Anh đã đóng vai Black John, một lính du kích (tiếng Anh: Bushwhacker) Missouri, trong Ride with the Devil (1999), một bộ phim về cuộc Nội chiến Hoa Kỳ.[2] Jim còn thủ vai "Jerry" trong bộ phim Pay It Forward năm 2000.